Ketika zaman pemerintahan Umar Al-Khattab, beliau dilantik sebagai panglima perang untuk membantu Nu'man ibn Muqarrin dalam peperangan yang dikenali sebagai Perang Nihawand. Berikutan gugurnya Nu'man ibn Muqarrin di dalam peperangan dan dengan kemenangan tentera Islam di Nihawand, beliau dilantik menjadi gabenor Kufah dan Mada'in seterusnya menjadi wakil khalifah di tanah Parsi.